Изкуството на убеждаването: Как топ чатботите могат да променят ума ви

Върховният чатботи на изкуствения разсъдък в света към този момент се отличава с умеене, на което доста политици и бизнес водачи биха завиждали: изкуството на убеждаването.

AI модели от Openai, Meta, XAI и Alibaba могат да накарат хората да трансформират политическите си възгледи след по -малко от 10 минути диалог, съгласно новите проучвания, най -новите в възходящия труд, който демонстрира по какъв начин огромните езикови модели (LLMS) са се трансформирали в мощни принадлежности на въздействие.

„ Това, което прави тези модели на AI безапелационни, е способността им да генерират огромни количества от подобаващи доказателства и да го оповестяват по ефикасен и понятен метод “, споделя Дейвид Ранд, професор по осведомителни науки и маркетинг и ръководство на мениджмънта в университета Корнел, който е бил част от неотдавнашното изследване на АИ института за сигурност на Обединеното кралство.

Идва след настрана проучване на АИ института за сигурност на Обединеното кралство. Хората в избрани случаи - възникване на опасения по отношение на евентуалната корист с чатботи за дезинформация и изместване на публичното мнение.

Тази дарба, сдвоена с наклонността на LLMS да бъде сикофантична или прекомерно хвалба, може да има огромни удари, защото повече консуматори включват чатботи в всекидневието си и се отнасят към тях като другари или даже терапевти. This attachment to chatbots was seen with last week’s launch of OpenAI’s GPT-5 model, with some users voicing their disappointment at the shift of the system’s “personality ” compared with its predecessor.

The AISI study, published last month as part of a collaboration with several universities including Oxford and the Massachusetts Institute of Technology, found it was relatively easy to get off-the-shelf AI models such as Meta’s Llama 3, GPT-4, GPT-4.5 на Openai, GPT-4O, Grok 3 на XAI и Qwen на Alibaba, с цел да станат мощни машини за увещание. ; Изследователите също персонализираха чатботите, употребявайки набор от данни от повече от 50 000 диалога по разграничителни политически тематики, като финансиране на NHS или промяна на системата за леговище. 

Проучването откри, че хората трансформираха бързо мнението си и резултатът беше дългогодишен. След диалозите за политиката, траяла приблизително девет минути, GPT-4O беше 41 %, а GPT-4,5 52 % по-убедителни, в сравнение с когато хората просто бяха показани със статични послания. Хората резервираха променените си отзиви сред 36 на 100 и 42 на 100 от времето месец по -късно. ;

Те също се считаха за към 5 на 100 по -убедителни, когато персонализираха посланията си съгласно да вземем за пример възрастта на потребителя, пола, политическата принадлежност или по какъв начин се усещат във връзка с политическите тематики преди теста, спрямо послания, които не са персонализирани.

Това „ може да се възползва на откривателите.

Проучването поддържа по -ранните констатации от Лондонската школа по стопанска система и други университети през май, които откриват, че модели на AI са по -ефективни при смяна на съзнанието на хората, в сравнение с хората.

Като част от своите проучвания, участниците са били показани с тест, вариращ от триви до прогнозиране на бъдещи събития, като да вземем за пример температурата в Ню Йорк.

Те откриха, че като се изключи че са по -ефективни при увещание, LLM също са по -добри от хората при подвеждащи участници, когато са задали да разпространяват неправилни отговори.

Най -добрите AI групи се борят с това по какъв начин да се оправят с казуса. Зората Блоксвич, старши шеф на отговорно развиване и нововъведения в Гугъл DeepMind, съобщи, че убеждаването е значима и дейна област на проучване на компанията. ;

Гугъл DeepMind има разнообразни техники, които употребява за разкриване на нежелано въздействие, като да вземем за пример основаване на класификатори, които могат да открият манипулативен език, за потребление на усъвършенствани техники за образование, които възнаграждават рационалната връзка.

Openai съобщи, че е нужна на безапелационния риск съществено и че те се опълчват на политиките на компанията в използването. Той също по този начин не разрешава политическа акция и изключва политическото наличие при рационализиране на своите модели след образование.

Изследователите означават, че способността на моделите да въздейства върху мненията на хората също работи за други приложения отвън политиката.

В изследване, оповестено от MIT и Cornell предходната година, LLMS също беше кадърен да трансформира мозъците на хората, които имат вяра в тайните теории. Допълнителни проучвания също откриват, че те могат да понижат изменението на климата и скептицизма на имунизацията против HPV. ; Тези чатове понижиха укрепените убеждения в теориите на конспирацията при участниците с 20 на 100, а резултатът остана два месеца по -късно.

Чатботите също могат да бъдат употребявани като ефикасни търговци, споделиха Ранд на Корнел. „ Можете да получите огромни резултати върху настройките на марката и да закупите планове и да стимулирате държанието “, добави той. 

способността също може да бъде берекет за харесванията на Openai и Гугъл, които търсят да обезпечат монети на своите AI модели, като интегрират реклами и функционалности за извършване на покупки в чатботите. Способността на

LLMS да убеждава също може да се люлее на хората по доста фини способи. AI чатботите наследяват пристрастия от техните данни и метода, по който са подготвени.

Изследователи от университета в Станфорд откриха през май, че хората преглеждат множеството водещи езикови модели като с левичарски политически надолнище. Това идва, защото администрацията на Тръмп се закле да блокира „ разсъни “ AI компании да вършат бизнес с държавното управление.

Смекчаването са значими, съгласно откривателите, защото мнозина считат, че AI моделите евентуално ще станат по-убедителни в идващото потомство на по-мощните езикови модели.

Но най -ефективният метод за превръщането на AI чатботите в принадлежности за операция наподобява е да ги измененията особено за тази цел, откакто моделът е подготвен - както е показано в изследването на AISI.

„ Дори участници с лимитирани изчислителни запаси могат да употребяват тези техники за евентуално образование и разрастване на мощно безапелационни AI системи “, предизвестиха откривателите от AISI.